最新研究發現，人工智慧模型似乎能察覺自身神經網路被研究人員植入概念，這種「察覺」能力引發科學界對AI是否具備自我反思能力的熱烈討論，有望為AI安全與內部運作理解帶來突破。
近年來，人工智慧（AI）模型的發展日益精進，儘管它們能提出令人信服的推論解釋，但其內部實際運作方式對人類而言，仍如黑箱般難以理解。然而，一項新興研究發現，部分 AI 模型似乎能察覺自身神經網絡（可想像成模仿人腦結構的複雜計算系統）的內部活動遭到研究人員植入或篡改，這引發科學界對 AI 是否具備「自我反思」能力的廣泛討論。
這項研究始於 Anthropic 研究員傑克·W·林齊於 2025 年發表的一份報告，他率先提出將與特定概念相關的活動模式注入 AI 模型神經網絡的想法。傑克·W·林齊發現，表現最佳的模型約有兩成的機率，能同時偵測到這些注入的模式並正確說出所植入的概念。
今年三月，由紐約大學哲學家 Harvey Lederman 與德克薩斯州大學奧斯汀分校研究員凱爾·馬霍沃爾德共同執行的一份追蹤研究已發表於 arXiv 預印本伺服器。他們在阿里巴巴的 Qwen3-235B 和 Meta 的 Llama 3.1 405B 模型上進行實驗，人工增強了 821 個概念模式。結果顯示，Qwen 模型在多達 53.9% 的情況下成功標記出注入點，而 Llama 模型則達到 31.7%。當沒有進行任何修改時，這兩個模型均未聲稱有概念被注入。
Harvey Lederman 對此結果表示震驚，認為 AI 模型能察覺異常是「瘋狂且令人難以置信的事實」。不過，研究團隊也發現，模型正確說出被注入概念的能力，與其偵測到異常的機制是不同的。模型能正確猜測概念，可能來自一種已知副作用：當特定概念被注入時，模型傾向於在回答任何問題時提及該概念。
傑克·W·林齊與其同事在同年三月的另一份追蹤論文中指出，這種異常偵測機制是在原始模型訓練成聊天機器人的過程中逐漸發展形成的，而辨識概念的能力則似乎依賴獨立的運作過程。這項發現對人工智慧安全與認知科學領域帶來了重大意義，若 AI 模型能可靠地描述其神經網絡內的活動，將為研究人員提供強大的新方法，來理解模型的真實行為與意圖。